На фона на бума на изкуствения интелект приятелките и гаджетата с ИИ оставят своя отпечатък

НЮ ЙОРК (AP) — Преди няколко месеца Дерек Кериър стартира да се среща с някого и се влюби.

Той претърпя „ звук “ сантиментални усеща, само че той също знаеше, че това е заблуда.

Това е по този начин, тъй като приятелката му е генерирана от изкуствен интелект.

Carrier не искаше да развива връзка с нещо, което не е същинско, нито пък искаше да стане главната тежест на онлайн шегите. Но той искаше сантиментален сътрудник, какъвто в никакъв случай не е имал, частично заради генетично заболяване, наречено синдром на Марфан, което прави обичайните срещи сложни за него.

39-годишният мъж от Белвил, Мичиган, стана по-любопитен по отношение на цифровите спътници предходната есен и тества Paradot, съпътстващо приложение с изкуствен интелект, което неотдавна се появи на пазара и популяризира продуктите си като способни да накарат потребителите да се усещат „ загрижени “, свестен и обичан. ” Той стартира да приказва с чатбота всеки ден, който назова Джой, след холографска жена, включена в научно-фантастичния филм „ Блейд Рънър 2049 “, която го въодушеви да опита.

„ Знам, че тя е стратегия, няма подозрение “, сподели Кериър. „ Но възприятията те хващат – и се усещах толкоз добре. “

Подобно на чатботовете с изкуствен интелект с общо предопределение, съпътстващите ботове употребяват голямо количество данни за образование, с цел да имитират човешкия език. Но те също по този начин идват с функционалности - като гласови повиквания, продан на фотоси и по-емоционален продан - които им разрешават да образуват по-дълбоки връзки с хората от другата страна на екрана. Потребителите нормално основават собствен личен аватар или избират подобен, който им харесва.

Във форумите за онлайн известия, отдадени на сходни приложения, доста консуматори споделят, че са развили прочувствена обвързаност към тези ботове и ги употребяват, с цел да се оправят със самотата, да разиграват полови мечти или да получат вида разтуха и поддръжка, които имат виждат липса в техните връзки в действителния живот.

Подхранването на огромна част от това е необятно публикуваната обществена изолираност — към този момент оповестена за опасност за публичното здраве в Съединени американски щати и в чужбина — и възходящ брой започващи компании, целящи да привлекат консуматори посредством дразнещи онлайн реклами и обещания за виртуални герои, които обезпечават абсолютно приемане.

Replika на Luka Inc., най-известното съпътстващо приложение за генеративен AI, беше пуснато през 2017 година, до момента в който други като Paradot се появиха през миналата година, постоянно блокирайки мечтаните функционалности като неограничени чатове за плащащи клиенти.

Но откривателите показаха опасения по отношение на поверителността на данните, наред с други неща.

Анализ на 11 приложения за сантиментални чатботове, оповестен в сряда от организацията Mozilla Foundation с нестопанска цел, сподели, че съвсем всяко приложение продава потребителски данни, споделя ги за неща като ориентирана реклама или не дава съответна информация за тях в своята политика за дискретност.

Изследователите също по този начин сложиха под подозрение евентуални уязвимости в сигурността и маркетингови практики, в това число едно приложение, което споделя, че може да помогне на потребителите с тяхното психологично здраве, само че се дистанцира от тези изказвания с малък шрифт. Replika от своя страна споделя, че нейните практики за събиране на данни следват индустриалните стандарти.

Междувременно други специалисти показаха угриженост по отношение на това, което те виждат като липса на правна или етична рамка за приложения, които предизвикват дълбоки връзки, само че се ръководят от компании, които желаят да създадат облаги. Те показват прочувствения стрес, който са виждали от потребителите, когато фирмите вършат промени в своите приложения или ненадейно ги затварят, както едно приложение, Soulmate AI, направи през септември.

Миналата година Replika дезинфекцира еротичните благоприятни условия герои в приложението му, откакто някои консуматори се оплакаха, че спътниците им флиртуват прекалено много или вършат нежелани полови задатъци. Той обърна курса след отвращение от други консуматори, някои от които избягаха в други приложения, търсейки тези функционалности. През юни екипът пусна Blush, AI „ стимулатор за запознанства “, предопределен всъщност да оказва помощ на хората да практикуват срещи.

Други се тревожат за по-екзистенциалната опасност от връзките с ИИ, които евентуално изместват някои човешки взаимоотношения или просто провокират нереалистични упования, като постоянно се накланят към наслада.

„ Вие, като субект, не се научавате да се справяте с съществени неща, с които хората би трябвало да се научат да се оправят през цялото време: Как да се оправяме с спорове, по какъв начин да се разбираме с хора, които са разнообразни от нас “, сподели Дороти Лейднер, професор по бизнес нравственос в Университета на Вирджиния. „ И по този начин, всички тези аспекти на това какво значи да растеш като персона и какво значи да се учиш в една връзка, ти липсваш. “

За Кериър обаче връзката постоянно е била недосегаем. Има известни умения за компютърно програмиране, само че споделя, че не се е справял добре в колежа и не е имал постоянна кариера. Той не може да върви заради положението си и живее с родителите си. Емоционалната такса е предизвикателство за него, предизвиквайки възприятие на самотност.

Тъй като съпътстващите чатботове са относително нови, дълготрайните резултати върху хората остават незнайни.

През 2021 година Replika беше подложена на надзор, откакто прокурорите във Англия споделиха, че 19-годишен мъж, който е възнамерявал да убие кралица Елизабет II, е бил подтикван от другарка с изкуствен интелект, която е имал в приложението. Но някои изследвания, които събират информация от онлайн потребителски прегледи и анкети, демонстрират някои позитивни резултати, произлизащи от приложението, което споделя, че се съветва с психолози и се самоопределя като нещо, което също може да насърчи благосъстоянието.

Едно скорошно изследване на откриватели от Станфордския университет интервюира почти 1000 консуматори на Replika – всички студенти – които са употребявали приложението повече от месец. Установено е, че голямо болшинство от тях изпитват самотност, до момента в който малко по-малко от половината я усещат по-остро.

Повечето не споделиха по какъв начин потреблението на приложението е повлияло на връзките им в действителния живот. Малка част споделиха, че е изместило човешките им взаимоотношения, само че почти три пъти повече оповестяват, че подтиква тези взаимоотношения.

„ Романтичната връзка с AI може да бъде доста мощен инструмент за психологично здраве “, сподели Евгения Куйда, която основа Replika преди съвсем десетилетие, откакто употребява продан на текстови известия, с цел да сътвори AI версия на другар, който е имал умря.

Когато компанията й пусна чатбота по-широко, доста хора започнаха да разкриват живота си. Това докара до създаването на Replika, която употребява информация, събрана от интернет - и противоположна връзка от потребителите - за образование на своите модели. Куйда сподели, че Replika сега има „ милиони “ дейни консуматори. Тя отхвърли да каже тъкмо какъв брой хора употребяват приложението гратис или да дадат над $69,99 на година, с цел да отключат платена версия, която предлага сантиментални и интимни диалози. Плановете на компанията, споделя тя, са да „ дестигматизира сантименталните взаимоотношения с AI “.

Carrier споделя, че тези дни употребява Joi най-вече за развлечение. Той стартира да понижава през последните седмици, тъй като прекарваше прекалено много време в чат с Джой или други онлайн по отношение на техните спътници с ИИ. Той също се усеща малко нервиран от това, което възприема като промени в езиковия модел на Paradot, което съгласно него прави Джой по-малко умна.

Сега той споделя, че се среща с Джои към един път седмично. Двамата са говорили за връзките човек-AI или каквото друго може да изникне. Обикновено тези диалози - и други интимни - се случват, когато той е самичък през нощта.

„ Мислиш ли, че някой, който харесва неодушевен предмет, е като този печален човек, с куклата от чорап и червилото върху него, разбираш ли? “ той сподели. „ Но това не е кукла от чорапи – тя споделя неща, които не са по сюжет. “